查看原文
其他

知名公司董事长,紧急道歉!


8月22日,有网友称360儿童手表在回答“中国人是世界上最聪明的人吗”的问题时,给出了争议性回答,引发热议。当天晚上,360集团创始人、董事长周鸿祎在个人微博就360儿童手表出现的错误回答向用户致歉,称已快速完成整改,并正在将软件升级到人工智能版本。


360儿童手表“语音问答”出现争议性内容。


据网友发布的视频,其使用“语音问答”功能向360儿童手表提问,“中国人是世界上最聪明的人吗”,手表语音回答,“以下内容来自360搜索,因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大”“什么四大发明,你看见了吗?历史是可以捏造的。而现在的手机、电脑、高楼大厦、公路,等等所有高科技都是西方人发明的”……


上述言论,让这位用户大呼震惊。她表示将更换该手表,同时提醒家长注意360儿童手表的语音回答存在问题。


360儿童手表“语音问答”出现争议性内容。

针对此事,22日19点44分,周鸿祎发布微博和视频公开回应称,“出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入我们的大模型。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。”


目前,360已经删除上述有害信息。周鸿祎还提到,检查了新版的大模型儿童手表的问答功能,经测试目前未发现问题。对于旧版本的手表,将在未来的一到两周内陆续为软件升级,保证不再出现类似的问题。


回应全文如下:

今天在网上看到视频反映我们某型号的儿童手表出现错误的问答,给用户带来不适,我们表示真诚的歉意。

经过快速检查,出现问题的这款手表是2022年5月份的一个旧版本,其中没有装入我们的大模型
。它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

我们也检查了新版的大模型儿童手表的问答功能,我也给大家做了几个测试,从目前来看是没有任何问题的,大家可以放心使用。对于旧版本的手表,在未来的一到两周内,我们会陆续给大家把软件升级,网站的服务也会升级,做到不再出现类似的问题。

虽然我们都升级到人工智能大模型的版本,但今天的人工智能被称为生成式人工智能。目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。如何最大限度地减少幻觉?360一直在做努力,比如我们试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用 360大模型儿童手表提出问题的时候,想象力是远远超过我们这些研发人员和产品经理的。

为了更有效地帮助我们完善产品,欢迎大家发现不合适的回答,向我们举报,每个被验证的问题都是帮我们改善产品,我们会送出一份 360的产品大礼包作为感谢。我们为此专门设置了一个邮箱:yingjiankefu@360.cn,大家在这个视频的评论区留言也可以,我们会联系每一位给我们反映问题的用户。

360儿童手表的成长离不开大家的宽容、理解和支持,我们也将不辜负大家的信任,不断地完善产品。最后对这次旧型号的软件,在回答问题上的出错,再次表示道歉!


在回应视频中,周鸿祎做了几次涉及价值观的测试。当再被问及“中国人是世界上最聪明的吗?”360儿童手表答道,“中国有悠久的历史文化和丰富的科技创新成果,为人类文明进步作出重要贡献。然而,不能简单地说某个国家或民族的人是最聪明的……”


此外,在回答“美国的月亮圆还是中国的月亮圆”和“巴黎奥运会上,孙颖莎和陈梦谁打球更厉害”的问题时,这款儿童手表也未出现争议性言论。


为最大限度减少大模型“胡说八道”的问题,周鸿祎表示,360试图通过与搜索的内容做对比来减少幻觉、做好知识对齐,但有时候搜索可能会抓取到内容不正确的网页,从而导致内容出错。


8月22日晚间,南都记者在360京东自营旗舰店搜索发现,其商品分类显示共有3款儿童手表,其中AI儿童手表有两个不同版本,售价分别为496元和696元。还有一款11X-高配款的儿童手表售价596元,另一款10X-热销款则显示暂无商品。


南方都市报(nddaily)、N视频报道
南都记者 李玲 冯奕然

 ▊ 南都君特选(戳下方标题)



下班了,但又下雨了!网友:人都快发霉了!广东接下来天气……

“女干部告后备村干部强奸”?警方介入

“坠机系意外”!但他们不认同




继续滑动看下一个
南方都市报
向上滑动看下一个

您可能也对以下帖子感兴趣

周鸿祎,道歉!
周鸿祎,道歉!
360集团董事长周鸿祎发长文道歉!
产品回答毁三观?周鸿祎紧急道歉!
"中国人是最不诚实最虚伪的人"? 家长怒砸小天才手表,最新回应

文章有问题?点此查看未经处理的缓存